Một loạt các hóa thạch cá da trơn đã được biết đến. Cá da trơn thông thường có bộ xương lớn và nặng, có xu hướng dễ hóa thạch hoá và tạo ra các sỏi thính giác tương đối lớn. Vì thế, một lượng lớn các loài cá da trơn đã được đặt tên từ các hóa thạch bộ xương toàn bộ hay một phần hoặc từ các sỏi thính giác[6], trong đó 19 chi và 72 loài hợp lệ chỉ dựa hoàn toàn vào các tàn tích hóa thạch[6]. Có hai họ đã hóa thạch hoá là Andinichthyidae từ tầng Hạ Maastricht tới thế Paleocen, và Hypsidoridae từ giữa thế Eocen[5].

Cá da trơn đã biết sớm nhất có từ cuối tầng Campania-đầu tầng Maastricht ở Argentina[22]. Các hóa thạch cá da trơn được tìm thấy ở mọi châu lục, ngoại trừ Australia[5]. Các hóa thạch với niên đại khoảng thế Eocen đã được phát hiện tại đảo Seymour ở châu Nam Cực.

Người ta tin rằng các nhánh của cá da trơn đã phân tỏa từ một tổ tiên chung trong một thời gian tương đối ngắn[4]. Trung tâm nguồn gốc cá da trơn có lẽ là Nam Mỹ. Tại khu vực này, cá da trơn có sự đa dạng cao nhất về loài. Ngoài ra, hai trong số các họ cá da trơn nguyên thủy nhất, là họ Hypsidoridae đã tuyệt chủng và Diplomystidae, được tìm thấy tương ứng ở các rìa bắc và nam của khu vực phân bố này. Các họ cá da trơn tại châu Phi là tương đối nguyên thủy[22]. Mặc dù bộ Siluriformes và bộ Gymnotiformes thường được coi là hai nhóm chị-em, nhưng chứng cứ phân tử gần đây lại chỉ ra rằng chúng có nguồn gốc độc lập[23]. Bộ này được gieo rắc khá sớm thông suốt qua các châu lục chủ yếu là nhờ các cầu đất[22]. Các loài cá da trơn tại Australia là các loài từ các họ có thể sống được trong môi trường nước mặn; chúng có thể đã di chuyển tới khu vực này thông qua môi trường biển và sau đó lại chuyển sang kiểu sống trong môi trường nước ngọt.

Cá da trơn có thể đã phổ biến từ châu Phi sang châu Á vào cuối kỷ Jura nếu chúng có thể đến được đó[22]. Trong kỷ Phấn Trắng, vết nứt giữa châu Phi và Nam Mỹ có thể đang được hình thành; và điều này có thể giải thích cho các trái ngược trong các họ giữa hai châu lục. Phần lớn cá da trơn nước ngọt của hai châu lục này dường như là hoàn toàn không có quan hệ họ hàng gì. Sự tương đối ít đa dạng của chúng ở châu Phi có thể giải thích tại sao một vài họ cá da trơn nguyên thủy lại cùng tồn tại với chúng trong khi chúng lại không có ở Nam Mỹ, trong đó các dạng cá da trơn nguyên thủy hơn có thể đã bị dẫn tới tuyệt chủng[22]. Thời gian sớm nhất mà cá da trơn phổ biến tới Trung Mỹ là vào cuối thế Miocen[22].